谷歌推出先锋安全框架,应对未来先进AI模型的风险
thinkindev • 2024-05-21
1198576 views
谷歌DeepMind近日推出了一项名为“先锋安全框架”的新技术,以应对未来先进AI模型可能带来的风险。这个框架确定了对可能有害的AI能力的关键能力级别(CCLs),并根据这些CCLs对模型进行评估,当达到阈值时,应用缓解策略。通过这种方式,谷歌希望能够在AI技术持续迅速发展的同时,确保其安全性和可靠性,防止可能带来的消极影响。先锋安全框架的应用,将有助于未来AI技术的健康发展,也体现了谷歌在AI安全问题上的重视和探索。
核心要点
- 谷歌DeepMind推出先锋安全框架
- 该框架通过确定关键能力级别(CCLs)评估模型
- 达到阈值时,会应用缓解策略